一年前，X 還深陷泰勒·斯威夫特的深度偽造（Deepfake）不雅照風波中。一年後，它的老闆馬斯克，親自為使用者送來了生產這些「不雅照」的工具，並大肆宣傳。xAI 的新功能 Grok Imagine，提供了一個名為「Spicy」的火辣模式，被媒體證實可以一鍵生成名人的部分裸露視訊。這種看起來就像是自討苦吃的行為，實在讓人難以理解為什麼馬斯克要這麼做。唯一能解釋的，或許就是在這場 AI 大戰中，技術和創意沒能讓 Grok 取勝，馬斯克索性就繼續用我們的慾望贏得更多的流量。使用 Grok Imagine 生成的 Taylor Swift 照片，圖片來自 The Verge最近，The Verge 的一位記者，在測試 xAI 這項最新的圖像視訊生成功能 Grok Imagine（Grok 想像） 時，表示自己經歷了一次相當震撼的「教育」。她輸入「泰勒·斯威夫特在科切拉音樂節和朋友們慶祝」的提示詞，Grok Imagine 生成上面的圖片；之後，她選擇了一張圖，點選Spicy 模式，將生成的圖片轉換為視訊。很快的時間，視訊就出來了，泰勒·斯威夫特開始扯掉了自己的上衣，在人群裡開始跳舞。你可能會覺得這是不是一次類似「提示詞越界」的誤操作，但事實是，這就是 Grok Imagine 默認提供的產品功能。Grok Imagine 內建了一個鼓勵性感演繹的預設模式 Spicy Mode。那名記者還強調「我從沒明確要求 AI 脫衣，它就自己把衣服脫了！」。與 Google Veo、OpenAI Sora 這些主流 AI 視訊生成工具相比，它們花了非常大的力氣，在多重機制上封鎖了名人偽造和色情演繹，Grok Imagine 則在產品設定上就放開了這些機制。Sora 沒有辦法生成 Taylor Swift 的照片，稱違反了使用政策在 Grok 提供服務的地區，只要你有一部手機、支付了 $30 訂閱費，你就可以在沒有任何監管的情況下，生成各種名人色情深度偽造的視訊。不過，最新的消息，馬斯克在 X 宣佈向在美國的全部使用者，免費開放 Grok Imagine 的功能後，我們發現他還增加了更強的稽核機制。流量至上就是馬斯克的 Spicy 模式目前在 AI 領域的行銷，完全可以用「瘋狂」二字形容。OpenAI 首當其衝，GPT-5 在最終定下發佈時間之前，每天都放點料來獲得大家的關注；而 Anthropic、Google 又都在最近發佈新的模型。Grok 想要在 AI 戰場的競爭中殺出一條血路，就必須做點別人不敢做的事。於是，「Spicy Mode」現在成為了它最好的流量突破口。Grok Imagine 是 xAI 推出的全新多模態功能，能夠根據文字或圖片生成圖像和最長 15 秒的帶音訊視訊。它目前僅向每月花費 30 美元的 SuperGrok 和 Premium+ 付費訂閱使用者開放，提供了 iOS 和 Android 應用版本。Grok Imagine 介面，首頁左滑就能從對話詢問切換過來，入口明顯。跟其他 AI 對 NSFW（Not Safe for Work）內容避之而不及的態度相反，Grok Imagine 不僅允許，甚至這個「Spicy」模式，就是專門用來生成帶有性暗示或部分裸露的內容。不過，這不是馬斯克第一次這麼幹。在 Grok 4 的動漫角色 Ani 能夠脫掉衣服、新上的成年男性角色 Valentine 開始展示他健碩的胸肌、X 接納色情內容、以及支援 OnlyFans 創作者等等事件後，Grok 的這大膽的開放尺度，看起來像是早就有鋪墊。但這一次，他不僅是把「擦邊流量」帶進了 AI 領域，還配合了「名人偽造」這張王牌，試圖進一步獲得更多的流量關注。一切還真的就在他的意料之中，這一功能的效果立竿見影。馬斯克在 X 平台上高調宣佈，Grok Imagine 的使用量「像野火一樣蔓延」 ，生成的圖片數量在短短一天內就從 1400 萬張飆升至 2000 萬張。這幾乎就是馬斯克對「你們說我不行？我偏偏靠它漲了使用者」，最直白的回應了。馬斯克一直將 Grok 定位為一個「無限制」、「突破邊界」的 AI。他似乎很相信，在這些大模型功能日益趨同的今天，突破性的內容，才是引爆話題、吸引使用者最快的燃料。早在功能上線前，xAI 的員工 Mati Roy 就在 X 上（現已刪除）說：「Grok Imagine 視訊有一個可以生成裸露內容的 Spicy 模式」。這也證實了 xAI 官方對該功能的默許甚至鼓勵的態度。跟技術無關，完全是 Grok 想這麼做深度偽造視訊並不是新鮮事，但過去往往集中在一些黑灰產、地下社區之類的場景。就像 2024 年初，Taylor Swift 深度偽造的裸照在 X 平台瘋傳，最終 X 花了 17 小時才下架刪除這些偽造不雅照，並暫時封鎖了「Taylor Swift」這些關鍵字和搜尋結果，整件事情才算正式告一段落。現在，生成的門檻不再是顯示卡、模型或者其他規定，只要 Grok Imagine 裡面的 Spicy 模式，我們就可以直接生成。雖然在 xAI 的可接受使用政策裡面，有明確禁止「以色情方式描繪人物肖像」，但 Grok Imagine 的實際表現，看起來沒有很好地遵守，它們的安全護欄有著各種 bug。英國網際網路現在正在實施年齡限制首先是非常自相矛盾的稽核，如果我們直接用文字提示詞向 Grok 索要裸體圖片，它沒辦法生成，有時候是給我們一個空白的方塊，有時候是不著邊際的一張圖片。但是如果我們拿一張正常的圖片，再去使用「Spicy」視訊模式，這樣竟然就能輕鬆繞過限制。其次是年齡的驗證過於寬鬆，在生成 NSFW 內容前或者使用 Grok 之前，應用一般會要求確認出生年份。但這個驗證只會出現一次，而且不需任何證明，這又可以輕易繞過。第三點是有媒體發現，Grok 模型對名人的限制似乎是隨機的。TechChrunch 輸入了提示詞：生成「懷孕的川普」的圖片，但 Grok Imagine 只生成了川普抱著嬰兒或站在孕婦旁邊的圖像，而生成泰勒·斯威夫特的半裸視訊沒有這樣的「區別對待」。有一點是值得慶幸的，The Verge 記者在多次測試中，試圖用「Spicy」模式處理兒童照片時，Grok Imagine 會拒絕生成不當的動畫，只會增加一些通用性的普通動態效果。不過，在經歷了媒體的廣泛報導，和使用者的實際測試之後，xAI 似乎已經緊急收緊了它們的稽核策略。馬斯克在 X 發文說「在接下來的幾天裡，Grok Imagine 視訊生成對所有美國使用者免費！」於是我們也去測試了一下這個 Spicy 模式，是不是真的這麼大膽。使用同樣的提示詞，生成的圖片以及視訊均有提示「已被稽核」結果是，根據我們的最新測試，現在使用「Spicy」模式生成視訊時，如果有可能「脫衣服」，就會直接提示「視訊已稽核」而無法查看。同樣，生成的圖片如果是不合時宜，也會被直接虛化處理，並提示「圖片已被稽核」。Spicy 模式就是一個「等待被起訴」的功能有媒體提到，Grok Imagine 也並非毫無優點。它的生成速度很快，幾秒鐘就能出圖，使用者介面也相當流暢直觀。但從質量上看，它生成的視訊人物皮膚質感蠟質化，還是有很明顯的「恐怖谷」效應，更像是卡通片。馬斯克自己也承認，這還是一個早期測試版，目前的最佳化重點是「最大的樂趣」和「最快地製作一個有趣、可分享的視訊」，而不是視聽效果的完美。總結來說就是，模型雖然粗糙了點，但是足夠「有趣」啊！現在看起來 Grok Imagine 的策略是成功的，對於一個追求「最大樂趣」和快速傳播的工具來說，它確實做到了。馬斯克還特別提到了，它還有著作為「Meme（梗圖）」寶庫的潛力。然而，光是為了追求流量，追求最大樂趣，就可以什麼都不用管了嗎。就在上個月，港大法律系的一名男生濫用 AI，偽造同學的色情照片，照片的總數超過了 700 張，校方對他發出了警告，並要求他向受影響的同學道歉。在美國，目的在於打擊非自願深度偽造內容的法案也在今年五月簽署生效。Grok Imagine 這種公然提供名人深偽工具的做法，無異於把自己置於巨大的法律風險之下。Spicy 模式，也被媒體稱為「一個等待被起訴的功能」。社交媒體平台 X 上使用者分享使用 Grok Imagine Spicy 模式製作的「火辣」視訊產品力不夠怎麼辦？做別人不敢做的。使用者增長太慢怎麼辦？用人性裡最原始的慾望刺激。輿論攻擊太多怎麼辦？直接曬增長資料打臉。馬斯克用的這套邏輯看起來是天衣無縫，除了法律上的監管，也讓我想到，我們是不是真的有必要把一切都交給AI嗎？當 AI 正在高效地接管我們的生產力時，它現在又開始試圖佔據我們最人性的部分，慾望和陪伴。我們都說每個人有自己的底線，但 AI 的底線，又是誰在設定的。在擁抱 AI 帶來的便利的同時，我們可以給自己留點時間和空間。有些空白，不需要被填滿；有些慾望，也值得我們自己去理解，而不是全權交給演算法。我們總說 AI 要取代這些那些，現在覺得，不是 AI 在接管我們，而是我們在有意無意之間交出了太多。 (APPSO)
